सूर्य मंदिर का निर्माण 1200 ईस्वी में राजा नरसिंह देव ने कराया था, नरसिंह देव पूर्वी गंगा वंश के वंसज थे,  राजा नरसिंह देव ने इस मंदिर का निर्माण अपनी जीत के उपलक्ष्य में कराया था, कहा जाता है की 1243 ईस्वी में राजा नरसिंह और मुस्लिम शासक तुगान खान के बीच एक भीषण युद्ध हुआ था जिसमे राजा नरसिंह देव ने जीत हासिल की थी, और इसी जीत के उपलक्ष में उन्होंने इस मंदिर का निर्माण कराया था, इतिहास के अनुसार राजा नरसिंह देव सूर्य देवता के बहुत बड़े भक्त थे इसलिए उन्होंने इस मंदिर का निर्माण करवाया था, इसकी बनावट की बात करे तो ये मंदिर सूर्य देव के रथ की भांति ही उसी आकार में बना है, इस मंदिर में भी द्वार पर घोड़ो की मुर्तिया बनाई गयी है और साथ ही इसके दोनों तरफ पहिये बने हुए है जिस प्रकार एक रथ की आकृति होती है, इस मंदिर को बनाने में काला ग्रेनाइट और लाल बलुआ पत्थर, कई कीमती धातुओं के साथ इसमें 52 टन चुम्बक का भी इस्तेमाल हुआ है |

पुराणों में मिले उल्लेख और दन्त कथाओ में इस मंदिर के निर्माण को लेकर एक कथा मशहूर है, जिसके अनुसार श्री कृष्ण और जामवती का पुत्र साम्ब जो की काफी आकर्षक और प्रसिद्ध था, एक बार श्री कृष्ण ने अपने पुत्र साम्ब को एक साथ कई स्त्रीओ के साथ असहज स्थिति में पाया, उसे देखकर श्री कृष्ण काफी क्रोधित हुए और क्रोध में श्री कृष्ण ने अपने पुत्र को कुष्ट रोगी होने का श्राप दे दिया, जिससे साम्ब कुष्ट रोगी हो गया और वो श्री कृष्ण से दया की भीख मांगने लगा और अपना श्राप वापस लेने की मांग करने लगा और जब श्री कृष्ण को अपनी गलती का अहसास हुआ तो उन्होंने कहा की वह कोणार्क में सूर्य देव की आराधना करे वे ही उसे इस श्राप से मुक्त कर सकते है | साम्ब ने श्रापमुक्त होने के लिए कोणार्क जाकर कई वर्षो तक भगवान सूर्य देव की आराधना की और जब सूर्य देव प्रकट हुए तो उन्होंने उसे चंद्रभागा नदी में स्नान करने को कहा, और जब साम्ब वहा स्नान कर रहा था, तब उसे कमल के पत्ते पर सूर्यदेव की एक प्रतिमा मिली जिसे उसने वहां मंदिर में स्थापित कर दिया, पुराणों के अनुसार साम्ब को यह मूर्ति रथ सप्तमी के दिन मिली थी और इस मूर्ति को कोनाद्वितीय नाम दिया गया था |

इतिहास के अनुसार इस मंदिर को रहस्यमयी मंदिर भी बताया गया है, प्राचीन समय में इस मंदिर को "ब्लैक पैगोडा" के नाम दिया गया था दूर से इस मंदिर की चोटी काले रंग की नज़र आती थी ठीक उसी प्रकार जिस तरह जगन्नाथ मंदिर को वाइट पेगोडा कहा जाता है | कहा जाता है की इस मंदिर के गर्भ में सूर्य देव की एक मूर्ति थी और इस मंदिर के शिखर पर 52 टन चुम्बक लगाया गया था जिस कारण सूर्य देव की वह मूर्ति हवा में तैरती हुई नज़र आती थी, मंदिर में लगे चुम्बक के कारण पास में स्थित समुन्द्र के जहाज मंदिर की तरफ खींचे चले आते थे, मंदिर में लगे चुम्बक के कारण परेशान अंग्रेजों ने उस चुंबक को निकल दिया जिससे मंदिर में लगी मूर्ति निचे गिर गयी और मंदिर की दीवारे और पत्थर भी एक एक कर गिरने लगे और मंदिर खंडहर में तब्दील हो गया |